Bắc Sơn là huyện có nhiều di chỉ khảo cổ về người tiền sử, nơi đây các nhà khảo cổ đã phát hiện ra cả một nền văn minh của người Việt cổ, vào sơ kỳ đồ đá mới, mang tên văn hóa Bắc Sơn.

Bắc Sơn là căn cứ địa kháng chiến (căn cứ địa Bắc Sơn - Võ Nhai), nơi nổ ra cuộc khởi nghĩa Bắc Sơn, chống Nhật và Pháp của lực lượng Việt Minh những năm 1940.

Ngày 30 tháng 1 năm 1985, thành lập thị trấn Bắc Sơn, thị trấn huyện lỵ huyện Bắc Sơn.

Ngày 21 tháng 11 năm 2019, sáp nhập xã Hữu Vĩnh vào thị trấn Bắc Sơn và sáp nhập hai xã Bắc Sơn, Quỳnh Sơn thành xã Bắc Quỳnh.[2]